Cuối thời Bắc Chu, ngoại thích Dương Kiên cầm quyền, có ý cướp ngôi. Thân tín của Kiên là Cao Quýnh tiến cử Tô Uy với Dương Kiên. Dương Kiên ra lệnh triệu ông vào phủ, thủ dụ theo mình. Được vài tháng, biết Dương Kiên chuẩn bị bắt vua Chu nhường ngôi, bèn bỏ trốn về vườn. Cao Quýnh xin đuổi theo, Dương Kiên cho rằng Tô Uy không muốn tham gia vào việc làm của mình vì sợ bị liên lụy nếu mình thất bại, và thôi không cho đuổi theo nữa.

Năm 581, Dương Kiên lên ngôi, tức là Tùy Văn Đế, cho mời Tô Uy về, phong Thái tử thiếu bảo, truy tặng cha ông làm Bi Quốc công thực ấp 3000 hộ, cho ông kế tự vào tước quốc công. Sau đó lại phong thêm chức Nạp ngôn, Dân Bộ thượng thư. Tô Uy dâng biểu từ nhượng, Văn Đế cố gắng thuyết phục, ông bằng lòng.

Tô Uy lại tâu xin Văn Đế cho giảm nhẹ sưu thuế và lao dịch và thực hành tiết kiệm, Văn Đế nghe theo. Những năm đầu tiên thời Tùy Văn Đế, Tô Uy cùng Cao Quýnh trở thành hai đại thần được tín nhiệm nhất, nắm quyền trong triều.

Có lần Văn Đế giận về một người, muốn giết đi. Tô Uy cho rằng người đó bị oan, nên lên tiếng can ngăn. Văn Đế không nghe, ông quỳ giữa điện không về để khuyên can. Văn Đế có ý bỏ ra ngoài, ông vẫn quỳ ở đó. Văn Đế khen ngợi ông, ban cho ngựa và hơn vạn tiền. Sau đó, Văn Đế phong thêm cho ông làm Đại lý tự khanh, Kinh Triệu doãn, Ngự sử đại phu. Sau đó, ông vâng lệnh Văn Đế, chế ra luật định của triều Tùy (Khai Hoàng luật lệnh). Có đại thần là Lương Bì thấy Tô Uy được lãnh năm chức, mà không cử người hiền nào thay thế, cho ông là người tham quyền lực, ghét nhân tài, bèn dâng biểu tố cáo, nhưng Văn Đế vẫn tín nhiệm Tô Uy.

Sau đó, Văn Đế tước chức Thiếu Bảo, Ngự sử đại phu của ông, phong thêm làm Thượng thư bộ hình. Tô Uy và Cao Quýnh một lòng phó tá Văn Đế, góp phần lớn vào thịnh trị đời Khai Hoàng. Sau đó, ông được phong lại làm Nạp ngôn, đổi làm Thượng thư bộ lại rồi Lĩnh quốc tử tế tửu.

Năm 589, ông được phong Thượng thư hữu bộc xạ. Cùng năm, do mẹ bị bệnh, ông xin từ quan. Văn Đế khen ông là người có hiếu, đáng được bổ dụng, do đó vẫn giữ ông lại trong triều. Cùng năm, khi Văn Đế đến Tĩnh Châu, Tô Uy cùng Cao Quýnh được lệnh ở lại lưu thủ kinh đô.

Năm 592, con trai Tô Uy là Tô Quỳ cùng Quốc tử bác sĩ Hà Thỏa luận về chế độ âm nhạc trong cung, nhiều người khác trong cuộc thảo luận sợ uy quyền của ông nên hùa theo Tô Quỳ, phản đối ý kiến ở Hà Thỏa. Thỏa bèn tố cáo với Văn Đế rằng Tô Uy cùng Lư Khải, Tiết Đaoh Hành, Vương Hoằng, Lý Đồng,... kết bè đảng trong triều. Văn Đế sai Dương Tú và Ngu Khánh điều tra và trị tội, cuối cùng Văn Đế miễn quan tước của Tô Uy, đem tước Khai phủ giao cho người em.

Sang năm sau, Văn Đế hạ lệnh phục tước Bi Quốc công cho Tô Uy, lại phong làm Nạp ngôn. Khả Hãn Đô Lam của Đột Quyết thường xâm phạm biên cương, Văn Đế lệnh cho Tô Uy đến kết hòa ước. Đô Lam cũng dâng nhiều báu vật cho nhà Tùy. Khi trở về, Văn Đế xét công của ông, phong làm Đại tướng quân.

Năm 601, Văn Đế phong cho ông làm Thượng thư Hữu bộc xạ. Khi Văn Đế bị bệnh phải chuyển sang cung Nhân Thọ, ông được lệnh phụ chính cho thái tử Dương Quảng. Khi Văn Đế khỏi bệnh, có người tố cáo ông khi xử lý triều chính có nhiều chỗ vô lý, Văn Đế rất giận, trách mắng ông. Ông đến tạ lỗi, Văn Đế bèn tha cho. Sau Văn Đế lại có bệnh, thái tử Dương Quảng đến cung Nhân Thọ chăm sóc, cho ông lưu thủ kinh sư.